關於類神經網路的一些回憶

這部影片的資訊來源，應該是最近的新書「AI霸主」裡面關於 Ilya 的部份，而影片裡介紹的部分段落，恰好跟我自己的求學經歷有些重疊，想起了一些往事。

大四的時候修了黃榮村老師的選修課，導讀當時（20世紀末）的意識研究。那個學期讀了一堆書跟論文，影印紙疊起來跟人一樣高，我還為了其中一篇189x年的論文，跑去圖書館的儲藏室，影印一篇感覺翻用力一點就會碎掉的期刊論文。讀過的人名很多，像是 Daniel Dennett, Francis Crick, Ramachandran，Gerald Edelman, Antonio Damasio, David Chalmers, Ned Block, Christof Koch, René Descartes, Roger Penrose, Stuart Hameroff，還有更多不記得了。

期末最後有同學提問：「關於意識成因的這麼多種說法，老師覺得哪一種比較有可能是對的？」老師思考了一會兒，說：「雖然我個人並不願意承認，但以目前的發展來說，connectism 比較有可能是對的。」（簡單說就是「意識來自神經網路運作的結果」，當時老師戲稱這是「沒有心的心理學」。）

後來服完兵役出國，改念機器學習，當時我跟指導教授說想做類神經網路的研究，老師笑了笑，跟我講述了影片中那段「類神經網路現在正遭遇低谷」的情況，「他們得自己辦一本期刊才能夠發表論文」云云，一模一樣的情景猶如昨日重現。

言猶在耳，20年後的現在，類神經網路改變了整個世界，還一口氣拿了兩座諾貝爾獎，當初誰又預料得到呢？

影裡也提到 Nvidia 的 CUDA，我過往也研究了一段時間的 GPGPU，只是當時選擇了 CUDA 的競爭陣營 OpenCL （我一向都是選 open source 的），然後，就沒有然後了。

如今回頭看，感觸良多。不要說什麼高瞻遠矚、洞燭機先，其實人的選擇都高明不到哪裡去，際遇使然而已，還是活在當下比較實在。